OptionWorld: A Benchmark for Diagnosing Failures of LLMs as Long-Term Personal Assistants
OptionWorld：诊断 LLM 长期个人助手失败环节的基准
🧭 Agent 长期任务失败诊断基准 ★ 深度解读
University of British Columbia · University of Chicago · Independent Researcher · Princeton University
提出 OptionWorld 基准，追踪从信息获取到行动结果的完整链路，定位 LLM 长期助手跨天任务失败环节
📌 工作参考价值（4 点）
- 在构建长期 Agent（如电商售后助手、广告投放优化助手）时，应显式维护“未完成任务清单”，为每个任务记录已获取事实、下一步行动、截止时间和阻塞条件，而非仅依赖对话记忆。可借鉴论文中的 Task State 概念，将“已获取事实”与“已执行干预”分开跟踪。
- 失败分析显示 Agent 常将临时障碍（如等待某条记录）误当作永久限制，导致自我设限而停止行动。可在系统层面加入定期校验机制：对等待条件设置有效期，过期自动重试或升级，避免 Agent 永久等待。
- 提示词或工具设计中明确区分“允许询问”和“允许承诺/执行”，避免 Agent 因权限边界不清而放弃可采取的行动。可参考论文的权限说明纠正实验：仅澄清“禁止联系”是指禁止最终承诺而非禁止询问，即可恢复正确行为。
- 对于长期任务，采用 checkpoint 回放和最小干预（补充事实、行动提醒、权限澄清）进行诊断，帮助定位失败发生在信息获取、判断还是行动环节，从而针对性优化 prompt 或 memory 结构，而不是盲目增加上下文长度。